عباسیان، قبرهاى امویان را در شام شکافتند و جنازه‏هاى آنها را به آتش کشیدند.تنها قبرى که استثنا شد، قبر عمر بن عبدالعزیز بود. داود بن على عباسى، در حجاز اعلام بخشش کرد و پس از آن که امویان از پنهانگاه‏ها بیرون شدند، آنها را کشت.

 زمانى که سفاح کوشید تا امویانى را که در عراق به وى پناه آورده بودند ببخشد، شاعرى وى را به خاطر بخشش امویان ملامت کرد و پس از شعر او بار دیگر امویان پناهنده به قتل رسیدند.

 در برخى از مناطق شامات، بارها بقایاى امویان و یا فرماندهان آنها سر به شورش برداشتند، اما با شدت هر چه تمام‏تر سرکوب شدند.

 سخت گیرى بر ضد امویان تا آن اندازه بود که آنها، به سرعت شامات را رها کرده به شمال افریقا در دورترین نقاط گریختند و در اندلس دولت اموى را بنیاد گذاشتند.

سفاح پس از چهار سال خلافت، در سال 136 هجرى درگذشت.

دکتر حسن ابراهیم حسن در کتاب «تاریخ سیاسى اسلام» راجع به سفاح مى‏گوید:

ابوالعباس عبدالله بن محمد بن على ملقب به سفاح نخستین خلیفه عباسى بود. پدر وى محمد در آخر دوران اموى در بسط دعوت عباسیان کوشش فراوان کرد و به سال 125 ه ـ بمرد و کار دعوت را به فرزند خویش ابراهیم ملقب به امام سپرد. ابراهیم امام به دست مروان خلیفه اموى محبوس و مسموم شد و کار دعوت بدست ابوالعباس افتاد. وى به کوفه رفت (132) هفته‏اى چند نهان مى‏زیست و عاقبت به اصرار پیروان خود دعوت را آشکار کرد و به عنوان خلافت بدو سلام گفتند. ابوالعباس از برادر خود منصور کوچکتر بود اما چون مادرش عرب بود وى را براى خلافت مناسب‏تر دیدند که مادر منصور کنیز بود. آغاز خلافت ابوالعباس روز سوم ماه ربیع الاول سال 132 هجرى بود.

ابوالعباس به روز جمعه به عنوان خلافت با مردم نماز کرد و بر منبر ایستاد و خطبه خواند ـ امویان بر منبر مى‏نشستند ـ و مردم از ابتکار وى خشنودى کردند و گفتند: اى عموزاده پیمبر سنت دیرین را زنده کردى. ابوالعباس در خطبه خویش از فضل خاندان محمد (ص) سخن آورد و از قبایح امویان یاد کرد که خلافت را غصب کرده بودند و مرتکب اعمال زشت شده بودند و با اهل بیت پیمبر ظلم کرده بودند.

سپاه شام را ملامت کرد و از ستایش کوفیان به تفصیل سخن کرد و عطاى ایشان را بیفزود که همه مخلصان خاندان عباسى بودند. از خراسانیان نیز که وى را در کار قیام دولتش یارى کرده بودند تمجید کرد و در پایان خطبه گفت: «من خون‏ریز بى‏باکم و انتقامجوى...» از اینجا توان دریافت که وى مصمم بود هر که مانع مقاصد وى شود خونش را بریزد آنگاه از منبر فرود آمد و به قصر امارت رفت و ابوجعفر برادر خویش را در مسجد گذاشت تا از مردم بیعت بگیرد و وى تا شب بدینکار مشغول بود.

پس از اتمام کار بیعت، ابوالعباس به شهر انبار رفت که در مغرب فرات بود و تا مدخل بغداد ده فرسخ فاصله داشت. این شهر را شاپور پسر هرمز یکى از پادشاهان ایران بنا کرده بود، سفاح بناى آن را تجدید کرد و قصرها در آن ساخت از پس وى منصور در انبار قصرى بزرگ ساخت و آنجا را پایتخت خود کرد و به نام هاشم جد خاندان هاشمیان هاشمیه نامید.

سفاح بیشتر ایام خویش را به سرکوبى سرداران عرب گذرانید که با امویان همکارى کرده بودند و ریشه امویان را قطع کرد چنانکه از این خاندان بجز عبدالرحمن داخل که دولت اموى اندلس را بنیان نهاد کسى از دست وى جان نبرد و هم از قتل یاران خویش که با وى در بنیاد دولت کمک کرده بودند دریغ نکرد.

ابوسلمه خلال را که در بسط دعوت عباسیان سهمى بزرگ داشت بکشت قصد کشتن ابومسلم را نیز داشت اما مرگش در رسید و امکان اینکار نیافت. ابن هبیره یکى از سرداران مروان اموى را نیز با آنکه امان داده بود ناجوانمردانه بکشت.